Agárdon született Ziegler Géza néven 1863. augusztus 3-án. Középiskoláit a sárospataki gimnáziumban, illetve Pesten végezte, majd az egri tanítóképzőben szerzett diplomát 1882-ben, ezt követően pedig Devecserben, Karádon, Sárváron, Sályban tanított.
Már diákkorában verselt, tanítóként prózát is írt, az 1880-as években Győrött, illetve Szegeden újságíróskodott, nevét - mivel Gárdonyban anyakönyvezték - Zieglerről Gárdonyira magyarosítva. 1891-ben került Pestre, ahol Bródy Sándorral és Ambrus Zoltánnal együtt alapították és szerkesztették a Jövendő című lapot, amely a Nyugat megjelenéséig a kor leghaladóbb és legszínvonalasabb magyar irodalmi folyóirata volt.
Gárdonyi neve Göre Gábor leveleivel vált ismertté, barátai és írótársai ezért szólították Gárdonyit élete végéig Görének. A paraszti életről szóló rövid történeteket szerzőjük később szégyellte, sőt megtagadta, noha az ellenállhatatlanul mulatságos írások paródiaként és szatíraként egyaránt kiválóak.
1897-ben Egerbe költözött, berendezkedve a teljes elzárkózásra. A rejtőzködést magánéleti dráma is indokolta: Molnár Máriával 1885-ben kötött házassága boldogtalan volt, felbomlott. Az irodalmi élettel azonban nem szakadtak meg kapcsolatai: publikált több folyóiratban, tagja volt a Petőfi és a Természettudományi Társaságnak, a Vörösmarty Akadémiának, 1920-ban elnökké választotta a Magyar Írók Szövetsége.
Gárdonyi igazán népszerűvé Az én falum című novellafüzér (1898), majd az Egri csillagok (1901) megjelenésével vált. A magyar történelemnek ez a különösen hősi pillanata, a város szeretete és a vár képe - amelyre házából ráláthatott - adott ihletet a mű megírásához. Az Egri csillagok mindmáig az egyik legolvasottabb magyar regény, amelyből Várkonyi Zoltán készített filmet Szász Endre díszletterveivel.
Ugyancsak 1901-ben hatalmas sikert aratott Bor című színműve a Nemzeti Színházban. Regényeinek témája az örök szerelem (A láthatatlan ember, Isten rabjai), a viaskodás a női nemmel (Az a hatalmas harmadik, Hosszúhajú veszedelem, Szunyoghy miatyánkja), de megjelenik bennük az idill is (Dávidkáné, Ida regénye). Halála után került elő Földre néző szem című kötete, amelyet fiainak írt, az általa kidolgozott titkosírással. (Gárdonyi kiváló sakkjátékos is volt, 1887-ben nemzetközi versenyt nyert és szerkesztette a Magyar Sakklap című újságot.)
Egyike volt a 20. század elejének túlérzékeny, "kivonuló" alkotóinak. Magát "kövek alatt nőtt fűnek" mondta, világnézetében keveredett a misztikus vallásosság az ateizmussal, a racionalizmus az irracionalizmussal. Élete tele volt irányváltásokkal, mégis gazdag líraisággal ábrázolt korokat, helyzeteket, embereket.
"Az egri remete" 1922. október 30-án halt meg, és kedves városában temették el. Egykori lakóháza ma emlékmúzeum, amelyet 1988-ban - az író születésének 125. évfordulójára - újítottak fel. Az egri vár délkeleti fülesbástyáján 1991-ben avatták fel Gárdonyi új síremlékét, amelynek felirata változatlan: "Csak a teste". Nevét viseli az egri színház, számos iskola az országban. A Fejér megyei Agárdon található szülőházát felújítás után 2007-ben adták át.